Tannhäuser Tor

Joseph Weizenbaum (1923 - 2008)

bei wwikipedia

Joseph Weizenbaum

[Weizenbaum]

Die Macht der Computer und die Ohnmacht der Vernunft

Frankfurt a.M. 1978

 

[Weizenbaum Eisberg]

Kurs auf den Eisberg.

Die Verantwortung des Einzelnen in der Diktatur der Technik

München 1987

 

 

Frage: Man nennt Sie einen Dissidenten Warum?

Antwort: Ich bn ein Dissident. Und ich bin ein Ketzer.

Frage: Aber sas waren Sie nicht von Anfang an.

Antwort: Vor meiner Wandlung - wenn es überhaupt eine richtige Wandlung war - habe ich mit Lust und Eifer das Feld der Computerwissenschaft bebaut. Nicht etwa deshalb, weil es besonders einträglich gewesen wäre. Mitnichten. Wenn man so mit Leidenschaft arbeitet, ist der Grund immer der, dass die Arbeit Vergnügen macht: etwa so wie Rätsel-Lösen. Robert Oppenheimer wurde einmal gefragt, warum er und seine Leute mit solchem Enthusiamus an etwas wie der Atombombe haben arbeiten können It was sweet science, sagte er und meinte damit, dass Wissenschaft einfach gut schmecke.

Mir ging es ebenso wie Robert Oppenheimer, auch wenn ich mich sonst nicht mit ihm vergleichen kann. Auch meine Kollegen sind nicht besonders geldgierig ,und sie freuen sich nicht, wenn neue Waffen hergestellt werden, zu denen sie einen Beitrag liefern durften. Es macht Spass zu arbeiten, und wenn etwas gelingt, wurd man von seinen Leuten anerkannt, oder man wird für ein Jahr ans MIT eingeladen und dann gebeten, am MIT zu bleiben, Auch das alles ist angenem und löst Befriedigung aus.

Weizenbaum Eisberg Seite 15f

Viele sagen auch - man hat das in Deutschland seinerzeit oft gehört -: "Wenn ich aufhöre, wenn ich einsehe, dass ich mit meiner Forschung nur dm Militär diene und letztlich sogar meine eigenen Kinder damit töte, dann macht es doch nur ein anderer!" Moralisch ist sie nicht, diese Haltung des" Wenn ich's nicht mache, macht's ein anderer" - eine gute Handhabe für jedes Verbrechen! Oder man kann auch hören: "Wenn ich  verzichte, wieviel spürt die Welt davon? Ein Tropfen im Meer! Was hat das für einen Zweck?"

Ich betrachte  das als eine Haltung, die ich unter dem Begriff 'Imperialismus der instrumentellen Vernunft' fasse. Er besagt, dass irend eine Idee, irgend ein Vorschlag, der nicht instrumental ist, sofort abgewiesen wird: alles muss einem Zweck dienen (auch die Vernunft ist nur ein Mittel zum Zweck). Das es eine Haltung geben könne, die ihrn Grund in sich hat, und dass man Nein sagen könne, ohne das Nein zu begründen oder einen Zweck überhaupt nennen zu können, gilt als ausgeschlossen. Dass man z.B. Nein Sagt und als Grund angibt, man sei so erzogen worden dass man bei dieser oder jener Frage einfach Nein sagen müsse - das verstehen heute wenig Menschen.

Weizenbaum Eisberg Seite 23f

nn

Weizenbaum Eisberg Seite 53f

Aber ich bin von Berufs wegen nur in der Computerwissenschaft ausgebildet, was (allen Ernstes) soviel heisst wie: meine Ausbildung ist äusserst beschränkt. Ich kann weder die Kompetenz, noch den Mut, noch die Chuzpe aufbringendas Problem auf so breiter Front anzugehen, wie dies eigentlich erforderlich wäre.

Weizenbaum Seite 21

Wichtiger erscheint mir jedoch, dass [der Computer] unsere Sprache bereits verändert hat, er hat sich da so richtig eingeschlichen, ohne dass man es bemerkt hätte, und ist zu einer allgemein gebrauchten Metapher geworden. Und Metaphern brauchen wir auch, um die Welt überhaupt wahrnehmen zu können; sie werden  jedoch gefährlich, wnn man nicht mehr weiss, dass es es Metaphern sing, das heisst, wenn man ihre Herkunft vergisst und sie wörtlich nimmt. Ich kann zum Beispiel sagen, ich sei unter Druck, und niemand stellt sich vor, der Luftdruck sei besonders stark. Das wäre absurd und fällt auch keinem ein. Beim Computer ist das aber gerade der Fall, dass man eine Metapher wörtlich nimmt. Am Anfang der Entwicklung hätte man es noch als Metapher empfunden, wenn jemand gesagt hätte,: "Der Computer denkt gerade darüber nach, wieviel 8 und 8 machen." Heute nicht mehr. "es tut mir Leid, unser Computer erlaubt das nicht ... " hat schon einen anderen Klang, und hier fängt es an, dass man ihm tatsächlich Aufgaben überträgt, die nur von Menschen übernommen werden dürfen.

Weizenbaum Eisberg Seite 71f

Frage: Der Begriff 'Freier Arbeitsmarkt' berührt mich immer unangenehm, weil der Arbeiter zur Ware wird.

Antwort: Und 'frei' impliizirt immer noch, dass der Arbeiter ganz frei sei. Er ist frei in dem Sinne, dass er so hoch verkaufen kann, wie es ihm gelingt.

Frage: Sich selber?

Antwort: Ja, für möglichst viel Geld. - Auf diesem Markt ersetzt nun der Computer das Beste, was der Arbeiter anzubieten hat: Kenntnis und Können. Beides übernimmt die Maschine, und er selber wird zu einem blossen Bediener der Maschine herabgewürdigt. Seine eigentlichen Fähigkeiten sind aus ihm herausgelockt und dem Gerät einverleibt worden. Er hat demnach weniger zu verkaufen als früher, und das, was er noch verkaufen kann, ist weniger wert.

Frage: Er selbst verliert an Wert?

Antwort:Ja, weil er nicht nur der Fähigkeit beraubt wird, seiner Familie Brot zu beschaffen, sondern auch eines Zeichen, die ihm beweisen, dass er Mensch ist. Nun wird er verinfacht und in einen Bediener verwandelt. (Fast wie bei Kafka, wo win Mensch in einen Käfer verwandelt wird. Kafka ist da ein Prophet.)

Frage: Meist wird das gegenteil gesagt: die Maschine übernehme die schwere, schmutzige und damit entwürdigende Arbeitb und gegebe dadurch dem Menschen die nötife Musse, sich Höherem zuzuwenden.

Antwort: Das stimmt in gewisser Weise: sie übernimmt tatsächlich einen Teil der schweren Arbeit. Man sollte sich darüber auch freuen, aber mehr prinzipell. Die Kehrseite der Medaille iat halt, dass der Maschine immer mehr von der Arbeit übertragen wird, für die man früher gelernte Kräfte brauchte. Beifügen muss man auch dies: Wer sich darüber freut, dass die schreckliche Arbeit in den Kohlegruben England - wie sie in George Orwells Buch beschrieben ist - nicht länger von Menschen verrichtet werden muss, sollte nicht vergessen, dass die Maschine nicht zu dem Zweck geschaffen wurde, den menschen die Arbeit leichter zu machen: es geht doch darum, dass man etwas billiger herstellen kann und mehr Geld verdient.

Damit kämen wir nun auf einen Gedanken zu sprechn, der sich immer so schön anhört: dass nämlich Leute, die ihr Kapital riskiert hätten, um diese oder jene Firma oder Fabrik überhaupt ins Leben zu rufen und die nötigen Maschinen herzustellen usw. auch dazu berechtigt seien, für das Risiko bezahlt zu werden, das heisst mit Geld Geld zu verdienen. Wenn nun also mehr Gewinn erzielt wird, bekommen sie auch mehr davon. Ganz beiseite gelassen wird ein anderer Gedanke: dass nämlich die, die sich selbst - und nicht nur ihr Geld - investiert haben, auch ein Recht darauf haben, vom Gewinn zu profitieren. Davon hört man nichts. Vielmehr ist es in unserer Gesellschftsordnung so - um es ganz deutlich zu sagen -, dass man diese Leute rausschmeissen kann, wie es einem gerade gefällt! Es geht ihnen so wie den Pferden in der Landwirtschaft, deren Aufgabe erfüllt ist.  [ ... ] 

Frage:  Verstehe ich Sie Recht, wenn ich dem Gesagten entnehme, dass der Computer wohl die Arbeit übernimmt und dadurch den Arbeiter überflüssig macht, der Arbeiter aber ein Recht darauf hätte, seinen Lohn dennoch zu erhalten?

Antwort: Ja, genau so ist es. Nur fasse ich es weiter: ich frage mich, wer überhaupt das Recht hat, am Gewinn teilzunehmen, wenn die Produktionsfähigkeit einer ganzen Gesellschaft steigt.

Wir haben so gewisse Sitten wie früher etwa die, dass man einen Hut trug, wenn man ins Freie ging. So eine Sitte ist es auch, dass wir es, wie bereits erwähnt, für selbstverständlich nehmen, dass leute, die ihr Geld riskieren, auch das Recht haben, an der steigenden Produktivität teilzunehmen. Das erscheint uns so natürlich wie ein Naturgesetz, wie das ein Ball, wenn er uns aus der Hand gleitet, nicht steigt. Jetzt will ich aber zeigen, dass das eben kein Naturgesetz ist und dass andere Vorstellungen möglich sind: Zum Beispiel könnte es sein, dass die ganze Gesellschaft Anspruch auf den neuen Wohlstand hat! Dann frage ich mich, warum ein Mensch unserer Gesllschft, der seine Fähigkeiten nicht mehr auf dem freien Arbeitsmarkt verkaufen kann, dafür bestraft werden muss? Und nicht nur er selberm sondern auch seine Frau und seine Kunder, indem sie z.B. kein Essen mehr kaufen können. Wenn man das nüchtern betrachtet, ist es der helle Wahnsinn: warum soll ein Arbeiter, der zwanzig Jahre treu seine Arbeit investiert und zum Wohlstand der Gesellschft nicht wenig beigetragen hat, nun so bestraft werden? Und das, weil irgend jemand ein neues Gerät erfunden hat? Dagegen hat der andere, der sein Geld, das vielleicht schon lange zurückbezahlt ist, riskiert hat, das Recht auch auch weiterhin Gewinne zu empfangen? Das soll ein Naturgesetz sein?

Arbeiter scheinen hinzunehmen, dass es für sie nur eine Frage der Zeit ist, bis sie der technische Fortschritt zur Arbeitslosigkeit und damit zun Hunger verurteilt. Wäre es ihnen aber möglich, den Wert ihrer Arbeit als Investition zu schätzen, dann könnten sie vielleicht manchen technischen Fortschritt mitbestimmen und dessen Folgen geniessen.

Weizenbaum Eisberg Seite 58ff

Infolge dessen ist jede empirische Wissenschaft eine kunstvolle Struktur, die auf Pfeilern ruht, die nicht etwa in Fakten verankert sind, wie gemeinhin vermutet wird, sondern im Treibsand fehlbarer menschlicher Urteile, Vermutungen und Intuitionen.

Weizenbaum Seite 30

Der Wissenschaftler muss auf seine Arbeitshypothesen vertrauen, einschliesslich der riesigen, dahinter stehenden Strukturen von Theorien und Annahmen, und wenn sie auch nur sein Argument retten soll. Oft hält sich das "Argument" zeit seines Lebens durch. Mit der Zeit wird er zu dem, was er zunächst nur kurzfristig sein wollte: ein echter Gläubiger. Ich habe das Wort "Argument" mit Bedacht gewählt, denn alle naturwissenschaftlichen Beweise, selbst alle mathematischen Beweise, sind im Grunde Akte der Überredung.

Weizenbaum Seite 31f

Spätere Wekzeuge, zB. das Telefon, das Auto oer das Radio trafen auf eine Kultur, die sich bereits an dem orientierte, was Wirtschaftswissenschaftler als Schweineprinzip bezeichnen: wenn irgend etwas gut ist, ist mehr davon noch besser.

Weizenbaum Seite 47f

... die amerikanischen Manager und Techniker waren sich einig, dass der Computer gerade zur rechten Zeit kam, um katastrophale Krisen abzuwenden: wäre der Computer nicht rechtzeitig erfunden worden, so wurde argumentiert, dann hätten die Banken zu wenig Personal gehabt, die ständig wachsenden Kommunikations- und Logistikprobleme der überall in der Welt stationierten amerikanischen Streitkräfte hätten nicht gelöst werden können, der Handel an den Aktien- und Warenbörsen wäre zusammengebrochen. ...

In Wirklichkeit waren umfangreiche Probleme im Management, in der Technik und der Naturwissenschaft in den Jahren vor dem Zweiten Weltkrieg und vor allem während des Krieges selbst ohne Mitwirkung elektronischer Computer gelöst worden. Man hatte einen Grossteil der Industrieanlagen der USA koordiniert, um das erforderliche Kriegsmaterial – Lebensmittel, Kleidung etc. - bereitzustellen und den notwendigen Transport zu dem grossen Armeen zu sichern, die sich auf dem gesamten Globus verstreut befanden. Das Manhattan Project stellte die Atombombe ohne den Einsatz von elektronischen Computern her, obgleich die technischen und wissenschaftlichen Probleme, die dabei zu lösen waren, wahrscheinlich einen höheren Rechenaufwand erforderten als für sämtliche astronomischen Berechnungen, die bis dahin jemals vorgenommen worden waren. Die Managementprobleme, die dabei auftraten, standen standen mit Sicherheit denen des des Apollo-Projekts der sechziger Jahre in nichts nach. Möglicherweise glauben glauben heute die meisten Leute, dass das Apollo-Project ohne Computer gar nicht hätte bewältigt werden können. Die Geschichte des Manhattan-Projekts widerlegt wahrscheinlich ihre Ansicht

Weizenbaum Seite 48f

Nun ist es keineswegs so, dass der Glaube an die Unentbehrlichkeit des Computers völlig aus der Luft gegriffen ist. Der Computer wird zum unentbehrlichen Bestandteil jeder Struktur, sobald er so total in die Struktur integriert ist, so eingesponnen in die verschiedenen lebenswichtigen Substrukturen, dass er nicht mehr herausgenommen werden kann, ohne unweigerlich die Gesamtstruktur zu schädigen. Das ist im Grunde eine Tautologie. Ihr Nutzen besteht darin, dass sie uns die Möglichkeit ins Bewusstsein ruft, dass bestimmte menschliche Handlungen, z.B. die Einführung von Computern in irgendwelche komplexen menschlichen Unternehmungen eine Abhängigkeit schaffen können, die nicht mehr rückgängig zu machen ist.

Weizenbaum Seite 49f

Ja, ser Computer kam "gerade noch rechtzeitig". Aber rechtzeitig wofür? Er kam gerade noch rechtzeitig, um um gesellschaftliche und politische Strukturen intat zu erhalten, - sie sogar noch abzuschotten und zu stabilisieren -, die andernfalls entweder radikal erneuert worden oder unter den Forderungen ins Wanken gekommen wären, die man unweigerlich an sie gestellt hätte.

Weizenbaum Seite 54

Es gibt  mit grosser z.B. Computerprogramme, die mit grosser präzision alle erforderlichen Berechnungen durchführen, um jemanden das Horoskop zu stellen, dessen Geburtsort und Zeitpunkt der Geburt bekannt sind. Da der Computerdie mühseligen Symbolmanipulationen verrichtet, geschieht dies viel schneller und detaillierter als es in der Regel einem menschlichen Astronomen möglich ist. Aber eine derartige Verbesserung der Technik bei der Erstellung eines Horoskops sagt nichts über die Geltung einer sagt nichts über die Geltung einer astrologischen Ptophezeiung aus. Wenn die Astrologie Unsinn ist, dann ist mit Sicherheit auch eine miit Computern betriebene Astrologie Unsinn.

Weizenbaum Seite 59

Wenn aus einer schlechten Idee eine gute werden soll, so ist die Ursache ihrer Schwächen zu suchen und zu beseitigen. Jemandem, der durch in offenes Kanalloch fällt, kann man kaum dadurch helfen, dass man ihm ermöglicht, schneller oder effizienter zu fallen. Es mag seltsam oder sogar paradox erscheinen, dass die Verbesserung einer Technik zugleich deren Schwächen und Grenzen bloßlegen kann, aber das dürfte kaum überraschen. Die Fähigkeit des Menschen, schlampig zu denken und zu rationalisieren, d.h., die Konsequenzen seines schlampigen Denkens weg zu erklären, ist sehr ausgeprägt.

Weizenbaum Seite 59f

Auch ein Werkzeug bezieht seine Stärke au dem Umstand, dass es bestimmte Handlungen ermöglicht und keine anderen. Ein Hammer muss z.B. unbeweglich sein. Aus diesem Grunde kann er nicht als Seil verwendet werden. Es kann nicht so etwas geben wie Allzwegwerkzeuge, genausowenig wie es Allzweckworte geben kann.

Weizenbaum Seite 61f

Betrachten wir z.B. einen gewönlichen Viertaktmotor.

Weizenbaum Seite 68

Die zentrale Eigenschaft, die jedes Regelsystem eines Spiels aufweisen muss,ist die, dass die Regeln vollständig und widerspruchsfrei sind.Sie müssen in dem Sinne vollständig sein, dass bei urgendeinem gegebenen Handlungsvorschlag innerhalb des Spiels entschieden werden kann, ob die betreffende Handlung legal ist oder nicht. Sie müssen in dem Sinne widerspruchsfrei sein, dass keine Teilmenge der Regeln eine bestimmte Handlung als legal und eine andere Teilmenge sie als illegal bezeichnen kann.

Weizenbaum Seite 71

Ein rein abstraktes Spiel ist eines, dessen Regeln keinen Kontakt mit der realen Welt implizieren, d.h. eines, das man ganz in Gedanken kann. Turnierschach zählt z.B. nicht hierzu, da dessen Regeln die Zeitspanne festlegen, die dem Spieler für das Überdenken seiner Züge zur Verfügung steht. Diese Einführung des Zeitfaktors stellt einen Kontakt zwischen dem Schachspiel und der realen Welt her und zerstört damit die Reinheit seiner Abstraktheit. Wenn man diese Bedingung jedoch ausser Acht lässt, ist Schach ein völlig abstraktes Spiel.

Weizenbaum Seite 71f

Eine andere Möglichkeit zur Formulierung der Bedingung, dass die Regeln eines Spiels in dem hier gemeinten Sinn vollständig und widerspruchsfrei sein müssen, ist die Aussage, dass zwei Schiedsrichter angesichts derselben Spielsituation in ihrem Urteil eine Überseinstimmung erzielen müssen. Eigentlich ist "Urteil" nicht das richtige Wort, denn ihre Entscheidung würde nur durch die Anwendung der Logik bestimmt sein. Im Wesentlichen wäre sie nicht mehr als einebestimmte Berechnung, ein logischer Prozess, der nur ein und nur ein Ergebnis zeitigen kann.

Weizenbaum Seite 72

Eine formale Sprache ist ein Spiel. Das ist keine blosse Metapher, sondern eine Aussage, die eine formale Entsprechung zwischen beiden behauptet. Aber wenn diese Aussage gilt, dann müssten wir in der Kage sein, wenn wir von Sprachen sprechen, ohne weiteres zwischen einem Vokabular der Spiele und einem entsprechenden Vokabular der Sprache hin und her zu bewegen. Und genau das ist möglich. 

Weizenbaum Seite 79

... ich hatte gesagt, ein Plan einer Stadt bedeute nicht die Kenntnis einer Stadt. Auf derswlben Ebene liegt es, wenn man zwar die Regeln des Schachspiels kennt, aber deshalb noch nichts über Schach wissen muss. Der Schachmeister weiss mehr, als er mitteilen kann.

Weizenbaum Seite 105f

Oft, wenn wir etwas zu verstehen glauben und darüber zu schreiben versuchen, , zeigt uns allein schon der Vorgang der Niederschrift, wie wenig wir verstehen. Der Stift schreibt das Wort "weil" und stockt plötzlich. Wir haben gedacht, wir würden das "Warum" einer Sache verstehen, und wir entdecken, dass das nicht der Fall ist. Wir beginnen einen Satz mit dem Wort "offensichtlich", um festzustellen, dass das, was wir schreiben wollten, alles andere als offensichtlich ist. Manchmal verbinden wir zwei Sätze durch das Wort "deshalb" und sehen sofort, dass in unserer Argumentskette ein Glied fehlt. Beim Programmieren geht es nicht anders zu. Letzten Endes handelt es sich hier um eine Niederschrift. Aber bei der gewöhnlichen Schreibtätigkeit verbergen wir gelegentlich unseren Mangel an Verständnis, unsere ungenügende Logik, indem wir uns, ohne es zu merken, auf die ungeheure Flexibilität der natürlichen Sprache und die ihr innewohnende Ungenauigkeit stützen. Die blosse Eloquenz, die uns die natürliche Sprache gestattet, erhellt manchmal unsere Worte und damit scheinbar auch unsere Logik, die dies gar nicht verdient. Ein Dolmetscher von Texten in einer Programmiersprache, ein Computer, erweist sich gegenüber dem verführerischen Einfluss reiner Eloquenz als immun. Und Worte wie "offensichtlich" sind in keinem der primitiven Vokabularien der Computer enthalten. Ein Computer ist ein unbarmheriger Kritiker.  Aus diesem Grund ist die Behauptung, man verstehe eine Sprache genügend gut, um sie programmieren zu können, in erster Linie eine Behauptung, dass man den Sachverhalt in einem ganz besonderen Sinne versteht. Sie kann keinesfalls mehr sein als eine Prahlerei, die von der Erfahrung leicht widerlegt werden kann.

Die Kehrseite der Medaille ist der Glaube, man könne nichts programmieren, was man nicht durch und durch verstehe. Dies geht an der Tatsache vorbei, dass das Programmieren, wiederum wie jede Art des Schreibens, in der Mehrzahl der Fälle experimentellen Charakter hat. Man programmiert, genau wie jemand schreibt, nicht, weil man etwas versteht, sondern um zu einem Verständnis zu gelangen. Programmieren ist ein Akt des Entwerfens. Ein Programm zu schreiben bedeutet, einer Welt Gesetze zu geben, die man zunächst in seiner Phantasie erschaffen muss. Nur in sehr seltenen Fällen hat ein Planer, sei er Architekt, Schriftsteller, Romancier oder was auch immer, ein derart zusammenhängendes Bild der Welt, die in seiner Phantasie entsteht, dass er deren Gesetze aufstellen kann, ohne dass eine Kritik seitens dieser Welt selbst möglich ist.    

Weizenbaum Seite 150f

Ausserdem spricht es [] in hohem Masse gerade solche Personen an, die noch nicht über genügend Reife verfügen, eine lange Zeitspanne zu ertragen, die zwischen einem bestimmten Aufwand zum Erreichen eines Ziels und dem Auftreten konkreter Erfolgsanzeichen liegt. Unreife Studenten werden deshalb leicht zu dem Glauben verführt, sie hätten wirklich eine Fähigkeit erwaorben, die mit immenser Macht und hoher Bedeutung verbunden ist, während sie tatsächlich nur die Anfangsgründe beherrschen und noch gar nicht zum Wesentlichen vorgedrungen sind.

Weizenbaum Seite 150

Es wäre erstaunlich, wenn Lord Actons Beobachtung, dass Macht korrumpiert, nicht in einer Umwelt gelten würde, in der Omnipotenz so leicht zu erringen ist. Sie gilt auch hier. Und die Form, in der sich die Korruption – durch die Omnipotent des Programmierers hervorgerufen – äussert, ist für einen weit grösseren Bereich lehrreich als den, der sich nur auf den Computer bezieht.

Weizenbaum Seite 160

Ein Ingenieur ist der materiellen Welt unauflöslich verhaftet. Seine Kreativität findet ihre Schranken in deren Grenzen; er kann schliesslich nur das tun, was sich diesen Gesetzen entsprechend tun lässt. Aber er ist dazu verurteilt, sein Metier in einem kafkaesken Schloss zu betreiben, aus dem – selbst im Prinzip – kein Weg herausführt. Denn er kann unmöglich den ganzen Plan kennen, in dem festgelegt ist, welche Räume in dieser Welt existieren und welche Türen zwischen ihnen geöffnet werden können.

Weizenbaum Seite 159f

[In fast allen Industrieländern dieser Welt ] ... kann man aufgeweckte junge Männer mit zerzaustem Haar beobachten, die oft mit tief eingesunkenen, brennenden Augen vor dem Bedienungspult sitzen; ihre Aurme sind angewinkelt, und die warten nur darauf, dass ihre Finger – zum Losschlagen bereit – auf die Knöpfe und Tasten zuschiessen können, auf die sie genau so gebannt starren wie ein Spieler auf die rollenden Würfel. Nicht ganz so erstarrt sitzen sie oft an Tischen, die mit Computerausdrucken übersät sind, und brüten darüber wie Gelehrte, die von kabbalistischen Schriften besessen sind. Sie arbeiten bis zum Umfallen, zwanzig, dreissig Stunden an einem Stück. [ ... ] Zumindest sie derart gefangen sind, existieren sie nur mit und durch den Computer. Das sind Computerfetischisten, zwanghafte Programmierer. Sie sind ein internationales Phänomen.

Weizenbaum Seite 160f

Wie kann man einen zwanghaften von einem schwer arbeitenden Berufsprogrammierer unterscheiden, der lediglich hoch motiviert ist? [ ... ] Der Fachmann betrachtet das Programmieren als Mittel und nicht als Selbstzweck. Seine Befriedigung bezieht er aus der Lösung eines inhaltlichen Problems und nicht daraus, dem Computer senen Willen aufgezwungen zu haben.

Weizenbaum Seite 162

Der zwanghafte Programmierer ist gewöhnlich ein brillanter Techniker, der außerdem jedes Detail des Computers kennt, mit dem er arbeitet, dessen periphere Ausstattung, sein Operationssystem etc. In Rechenzentren wird er gern gesehen, da er das System kennt und in der Lage ist, binnen kurzem kleine Unterprogramme zu schreiben; er schafft das in ein oder zwei Sitzungen von jeweils etwa 20 Stunden. Es kann vorkommen, dass das Rechenzentrum mit der Zeit einige seiner Systeme verwendet. Aber da man den zwanghaften Programmierern unter keinen Umständen dazu bringen kann, etwas anderes zu tun als zu programmieren, schreibt er seine Programme fast nie auf, sobald er nicht mehr mit ihnen arbeitet. Deshalb kann es soweit kommen, dass ein Rechenzentrum sich auf ihn verlassen muss, wenn es um die Erklärung der Zweckmässigkeit und der Beibehaltung der Systeme geht, die er geschrieben hat und deren Struktur er allein versteht. Seine Stellung gleicht der eines Bankangestellten, der zwar nicht viel für die Bank tut, aber als einziger die Kombination des Tresorschlosses kennt und nur deshalb nicht entlassen wird.

Weizenbaum Seite 162

Sein [des zwanghaften Programmierers] Hauptinteresse gilt deshalb nicht kleinen Programmen, sondern riesigen, ehrgeizigen Programmsystemen. In den meisten Fällen haben die Systeme, die er aufbauen will und an denen er fieberhaft einen, zwei oder drei Monate arbeitet, grandiose, aber äusserst ungenau formulierte Ziele. Einige Beispiele für diese ehrgeizigen Pläne sind: neue Computersprachen zur Verbesserung der Kommunikation zwischen Mensch und Maschine, ein generelles System, dem man beibringen kann, jede Art von Brettspiel zu spielen, oder ein System, das es Computerfachleuten erleichtern soll, Supersysteme zu entwerfen. (Letzteres ist sein Lieblingsprojekt). Es ist für viele dieser Vorhaben charakteristisch, dass der Programmierer lange Zeit die Überzeugung aufrecht erhalten kann, dass dazu kein anderes Wissen als das über Computer, Programmiersprachen etc. Erforderlich sei. Und über dieses Wissen verfügt er natürlich im Überfluss. Tatsächlich ist der Zeitpunkt, an dem das ganze Projekt aufgegeben wird, oft genau dann erreicht, wenn es aufhört, Nabelschau zu sein, d,h., wenn man das Programmieren unterbrechen und Wissen von ausserhalb der Computerwelt heranziehen müsste-

Weizenbaum Seite 162f

Programmsysteme können selbstverständlich ohne Plan und ohne jedes Wissen und Verständnis der dabei weit verzweigten Probleme erstellt werden, genau so, wie man auf diese Weise auch Häuser, Städte Staudämme und nationale Volkswirtschaften zurechthacken kann. Wenn ein derart zustande gekommenes System jedoch zu wachsen beginnt, wird es auch zunehmend instabil. Wenn eine seiner Subfunktionen unvorhergesehenerweise ausfällt, ausfällt, kann der sichtbare Schaden vielleicht behoben werden. Aber da es keine allgemeine Theorie des Gesamtsystems gibt, kann das System nur ein mehr oder weniger chaotisches System von Subsystemen sein, deren gegenseitiger Einfluss auf das Verhalten nur Stück für Stück und experimentell herausgefunden werden kann.

Weizenbaum Seite 164

Dann unterhält er [der manische Programmierer] sich nur noch mit dem Computer. Wir werden noch sehen, worüber sie sich unterhalten. ... Der Hacker verbringt einen Teil seiner Zeit am Schaltpult damit, die von ihm entwickelte Struktur mit neuen Subsystemen zu pflastern – er nennt sie "neue Eigenschaften" - und den Rest der Zeit mit Versuchen herauszufinden, in welcher Weise sich bereits installierte Substrukturen falsch verhalten Das ist es, worüber er sich mit dem Computer unterhält.

Weizenbaum Seite 164f

Aber der Stolz und die gehobene Stimmung des zwanghaften Programmierers sind nur von kurzer Dauer. Seon Erfolg besteht darin, dass er ddem Computer gezeigt hat, wer der Herr ist. Und nachdem er bewiesen hat, dass er den Computer zu solchen Leistungen trimmen kann, fängt er unverzüglich an, noch mehr aus ihm herauszuholen. So beginnt der gesamte Kreislauf von vorn. Zuerst "verbessert" er das System, etwa indem er es schneller laufen lässt,  *neue Eigenschaften" hinzugibt oder das Verfahren verbessert, nach dem Daten ein- oder ausgegeben werden können. Wenn das so entstandene Programm dann modifiziert wird, brechen unweigerlich einige seiner Subsysteme zusammen;insgesamt bilden sie ein amorphes Konglomerat von Prozessen, deren wechselseitige Interaktionen praktisch zufällig ablaufen. Seine scheinbar hingebungsvollen Versuche,die eigene Schöpfung zu verbessern und zu steigern,kommen eher einer Attacke gleich, deren einzige Konsequenz darin bestehen kann, den Kamof mit dem Computer erneut aufzunehmen.Sollte er - etwa durch administrative Entscheidubg - an der Sabotage seines Werkes gehindert werden, wird er zusehends depressiv, macht ein beleidigtes Gesicht zeigt keinerlei Interesse mehr an seiner Umwelt etc. Einzig eine neue Gelegenheit, am Computer zu rechnen, kann seine Lebensgeister zurückrufen.

Weizenbaum Seite 166

Ein Polizist stösst mitten in der Nacht auf einen Betrunkenen. Dieser rutscht auf allen Vieren unter einer Laterne und sucht offensichtlich irgend etwas. Er erklärt dem Wachtmeister, er habe seine Schlüssel verloren, "irgendwo da drüben"; dabei zeigt er auf eine Stelle, die ausserhalb des Lichtkreises der Laterne liegt. Natürlich fragt ihn der Polizist, warum der den Schlüssel unter der Laterne sucht und nicht da, wo er ihn verloren habe, und bekommt zur Antwort: "Weil man unter der Laterne besser sieht!"

Weizenbaum Seite 174

Ich werde im folgenden die Position vertreten, dasss es kein Fehler ist, den menschen als Verarbeiter von Informationen (oder auch als irgend etwas anderes) anzusehen oder ihn unter dieser Perspektive  zu verstehen zu versuchen, allerdings unter der Varaussetzung, dass wir niemals so tun, als könne irgend eine einzelne Perspektive den ganzen Menschen erfassen.

Weizenbaum Seite 190F

Eine Theorie ist in erster Linie ein Text, also eine Verkettung der Zeichen eines Alphabets. Aber in einem tieferen Sinne ist sie auch eine symbolische Konstruktion; bereits die Begriffe, mit denen eine Theorie arbeitet, sind Symbole, die nach einem Wort von Abraham Kaplan nach ihrer Bedeutung in der realen Welt tasten, andernfalls hören sie auf, symbolisch zu sein. Die Worte "tasten nach" stammen von Kaplan, und er hat sie glücklich gewählt – denn wen man sagte, Symbole "fänden" ihre Bedeutung in der realen Welt, so würde man die Tatsache leugnen oder zumindest verschleiern, dass die symbolischen Begriffe einer Theorie niemals ihren letzten Grund in der Realität finden können.

Weizenbaum Seite 190f

Eine Theorie ist natürlich nicht nur ein grammatikalisch korrekter Text, der sich einer Menge von Begriffen bedient, die in irgend einer symbolischen Beziehung zur Realität stehen. Sie ist eine systematische Menge von Aussagen über Gesetze. Ihr Gehalt, ihr echter Wert als Theorie liegt mindestens eben so sehr in der Struktur ihrer Zwischenverbindungen, durch die ihre Gesetze aufeinander bezogen werden, als in den Gesetzen selbst. (Studenten bereiten sich manchmal auf Physikprüfungen vor, indem sie seitenweise Gleichungen auswendig lernen. Sie werden ihr Examen mit derartigen Gedächtnisleistungen zwar bestehen, aber man wird wohl kaum sagen dürfen, dass sie etwas von Physik verstünden, d.h.mit anderen Worten, dass sie über eine Theorie verfügten)

Weizenbaum Seite 192

Eine Theorie, wenigstens eine gute, ist also nicht nur eine Datenbank, in der man "nachsehen" kann, was sich unter den und den Bedingungen ereignen wird. Sie gleicht eher einer Landkarte (auch Kaplan verwendet diese Analogie) eines teilweise erforschten Geländes. Sie hat eine heuristische Funktion, nämlich den Forscher bei seinen weiteren Entdeckungen anzuleiten. Die Art und Weise, in Theorien der Welt ein andere Gesicht geben, besteht nicht in der Antwort auf Fragen, sondern in ihrer Führung und ihrem Anreiz zu intelligentem Forschen. Und es gibt (wiederum) keine einzelne "richtige" Karte eines Geländes. ... Ein Nutzen der Theorie besteht also darin, dass er die die begrifflichen Kategorien vorbereitet, innerhalb derer der Theoretiker und der Praktiker ihre Fragen formulieren bzw. ihre Experimente planen.

Normalerweise meinen wir natürlich mit der Umsetzung einer Theorie in die Praxis, dass wir aus ihre Konsequenzen ziehen. Und damit ist wiederum gemeint, dass dass wir bestimmte Umstände voraussetzen, die sich auf bestimmte Begriffe der Theorie beziehen und uns dann die Frage stellen, welche Implikationen diese besonderen Umstände nach der Theorie für andere Begriffe mit sich bringen.

Weizenbaum Seite 192f

Natürlich kann keine Theorie etwas "herausbekommen", schliesslich ist sie nur ein Text. Aner sehr oft auf der Basis der Theorie ein Modell erstellen. Und es gibt Modelle, die in einem genz nicht-trivialen Sinne bestimmte Dinge herausbekommen können. Ich meine hier keine statischen Modelle, wie sie etwa von Architekten gebaut werden, um dem Auftrageber vorzuführen, wie das geplante Gebäude am Ende aussehen wird. Und ich meine auch nicht einmal die massstäblich verkleinerten Modelle von Flügeln, mit denen Aerodynamiker Versuche im Windkanal anstellen. , auch das sind statische Modelle. Das System hingegen, das aus einem solchem Flügel und vom Windkanal besteht, in dem mit ihm experimentiert wird, hat den von mir gemeinten Modellcharakter. Seine entscheidende Eugenschaft besteht darun, dass es für sich in der Lage ist, sich in ähnlicher Weise zu verhalten wie das von ihm repräsentierte System, nämlich eine eine wirkliche Tragfläche, die sich in einer wirklichen Luftmasse bewegt. Das Verhalten von Flügeln im Windkanalist vermurlich von denselben Gesetzen bestimmt,die das Verhalten wirklicher Flügel  eines Flugzeugs beim Flug beherrschen. Aus diesem Grund hofft der Aerodynamiker, etwas über einen normalen Flügel zu erfahren, wenn er diesen in verkleinerten Massstab untersucht.

Weizenbaum Seite 194f

Die Beziehung zwischen einem Modell und einer Theorie ist die, dass ein Modell einer Theorie genügt, d.h. ein Modell gehorcht den Verhaltensgesetzen, die von einer entsprechenden Theorie explizit formuliertt worden sind oder aus ihr abgeleitet werden können.

Weizenbaum Seite 195

Newll und Simon sagen über die Theorie der menschlichen Problemlösung als Informationsverarbeitung "Die Theorie löst die Augaben, die sie erklärt." Streng genommen kann eine Theorie nichts "lösen". Aber ein Modell kann es, und darin liegt der Sinn dieser Aussage..

Weizenbaum Seite 197

Computer schaffen die Möglichkeit einer völlig neuartigen Beziehungen zwischen Modellen und Theorien.

Weizenbaum Seite 196

Wir wählen für unser Modell Merkmale der Realität aus, die wir für unsere Zwecke als wesentlich betrachten. In komplexen Situationen ... muss bereits der Akt der Auswahl dessen, was wesentlich ist und was nicht, mindestens zum Teil ein Akt des Beurteilens sein, oft des politischen und kulturellen Urteils. Und dieser Akt muss dann notwendig auf dem intuitivem Modell Denkmodell des Modellbauers beruhen. Beim Text eines Modells kann sich zeigen, dass etwas Wesentliches vergessen worden ist. Aber auch hier muss ein Urteil gefällt werden, um zu entscheiden, was dieses "etwas" sein könnte, und ob es für den Zweck "wesentlich" ist, den das Modell erfüllen soll. Die schliesslichen Kriterien, die notwendig auf Absichten und Zwecken beruhen, werden letztlich vom einzelnen, d.h.menschlichen Modellbauer bestimmt.

Weizenbaum Seite 202

Ich hatte früher gesagt, dass der Wert einer Theorie nicht so sehr in der Anhäufung der von ihr formulierten Gesetze liegt als vielmehr in der Struktur, die diese miteinander verbindet.

Weizenbaum Seite 205

in den Worten I.A.Richards'ist eine Metapher "im Grunde ein gegenseitiges Borgen und Verkehren zwischen Gedanken, eine Transaktion zwischen verschiedenen Kontexten". Der heuristische Wert einer Metapher besteht oft nicht darin, dass sie einen neuen Gedanken zum Ausdruck bringt, was nicht unbedingt der Fall zu sein braucht, sondern dass sie einen Prozess in Gang setzt, durch den Einsichten, die aus einem Kontext gewonnen wurden, in einem anderen Kontext übertragen werden. Ihre Funktion weist darum sehr viel Ähnlichkeit mit der eines Modells auf.

Weizenbaum Seite 208

Für die beiden durch ihre Metapher verbundenen Kontexte ist es schliesslich notwendig, dass ursprünglich getrennt warebn, genauso (worauf ich schob hingewiesen habe), wie zwischen einem Modell und seinem Original keine Kausalverbindung bestehen muss. Die Schwierigkeit bei der Verwendung der beiden Metaphern besteht darin, dass beide überdehnt wurden. Einstein wollte sagen, dass es keine fixe, absolute Raum-Zeit-Struktur gibt, in der die physikalischen Ereignisse ihrer Bestimmung folgen. Damit muss jede Beschreibung eines  physikalischen Ereignisses (und in diesem Sinne die Beschreibung von allem) gegenüber einer angebbaren Raum-Zeit-Struktur relativ sein. Wer von da aus den Sprung macht zu "Alles ist relativ", der hat den Slogan übertrieben. Einsteins Beitrag bestand in dem Hinweis, dass es, im Gegensatz zu den bisher herrschenden Auffassungen, keine absolute Bewegung gibt. Wenn man aus Einsteins Theorie etwa ableiten will, Reichtum und Armut seien insofern relativ, als dass es nicht auf die absolute Grösse der Einkommen der Reichen und der Armen ankomme, sondern auf deren gegenseitiges Verhältnis, so hat er ungerechtfertigterweise einer Metapher den Status einer wissenschaftlichen Ableitung verliehen.

Weizenbaum Seite 209f

Mit anderen Worten: die Computermetapher ist zu einer weiteren Laterne geworden, unter derem Licht,und nicht nur dort, die Menschen nach Antworten auf brennende Fragen suchen.

Weizenbaum Seite 212

Es wird oft gesagt, der Computer sei nur ein Werkzeug. Die Funktion des Wörtchens "nur" in dieser Aussage soll zu dem Schluss verleiten, dass der Computer in keinem fundamentalen Sinne sehr wichtig sein kann, da Werkzeuge an sich nicht sehr wichtig sind.

Weizenbaum Seite 213

Da eine Sicht des Menschen als einer Art allgemeiner Gattung "informationsverarbeitendes System" unsere Aufmerksameit auf einen Aspekt des Menschen konzentriert, verleitet sie uns dazu, alle anderen Aspekte in die Dunkelheit hinter dem zu werfen, was von unserer Sicht erhellt wird.

Weizenbaum Seite 214

FNewell und Simon bemerken hierzu

Besonders zu berücksichtigen sind sind die Beschränkungen im Hinblick auf den Zugang, den der [General Problem Solver] GPS zur Aussenwelt hat. der Anfangsteil der expliziten Befehle an OPS ist schom lange vorher vom Menschen beim Aufbau seines allgemeinen Wortschatzes erworben worden. Dies(e) (Information) muss GPS erst mitgeteilt werden.

Genau an dieser Stelle wird der wahre Sachverhalt umgangen. Denn in Wirklichkeit lautet die Frage, was mit dem ganzen Menschen geschieht, während er seinen allgemeinen Wortschatz aufbaut. Wie wird seine Auffassung davon, was ein "Problem" ist, von den Erfahrungen geformt, die ein untrennbarer Bestandteil desErwerbs seiners Wortschatzes sind? Wie formen diese diese Erfahrungen seine Wahrnehmung davon, welche "Objekte", "Operatoren", "Unterschiede" "Ziele" etc. für ein Problem relevant sind, dem er sich gegenüber sieht usw.? Eine Theorie, die diese Fragen umgeht, kann unmöglich eine Theorie der menschlichen Problemlösung sein.

Weizenbaum Seite 237f

Software Programmiertechniken Die Summe aller zu einem Computersystem gehörenden Programme, Programmiertechniken, Systemunterlagen, - anweisungen und sonstigen Dienstleistungen, die mit der Anwendung des Systems zusammenhängen. Gegenteil von Hardware. (s.Fussnote auf S.226. A.d.Ü)

Weizenbaum Seite 247

Newell, Schank und Winograd erliegen einfach einem Missverständnis hinsichtlich der der Art von Problemen, die sie zu "lösen" glauben. Gleichsam wie unwissende Handwerker des 17.Jahrhunderts präsentieren sie "allgemeine Theorien", bei dene es sich in Wahrheit um nichts anderes handelt als um heuristische Schlagworte, und dann nehmen sie für sich in Anspruch, diese "Theorien" durch die Konstruktion von Modellen verifiziert zu haben, die zwar einige Aufgaben durchführen, dies jedoch in einer Weise tun, dass daraus keinerlei Einsichten in allgemeine Prinzipien gewonnen werden können. Ihr Scheitern ist grundsätzlicher Art, denn sie haben nicht erkannt, dass sie zur Realisierung dessen, was sie zur zu realisieren vorgeben, allgemeine Prinzipien von grösserer Art entdecken und formulieren müssen als die, die un der Beobachtung oder selbst dem Beweis enthalten sind, dass Gesetze als Computertprogramme formuliert werden können.

Weizenbaum Seite 260f

Die Tatsache, dass diese Fragen überhaupt an Bedeutung gewonnen haben, ist ein Indikator dafür, wie sehr die metapher der Indormationsverarbeitung bereits das akademische wie das ausserakademische Denken durchdrungen hat.

Weizenbaum Seite 262

EineTheorie ist natürlich  selbst ein begrifflicher Rahmen. Und so befindet sie darüber, was als ein Faktum zu gelten hat und was nicht.  Die Theorien - oder vielleicht besser gesagt die zentralen Metaphern -, von denen die Anhänger der künstlichen Intelligenz und auch weite Teile des Laienpublikums hypnotisiert wurden, haben seit langem festgelegt, Leben sei ausschliesslich das, was berechenbar ist.

Weizenbaum Seite 266

Der grosse Mathematiker Henri Poincare hat in seinem berühmten Aufsatz Mathematuval Creation geschrieben:

"Das bewusste Selbst ist eng begrenzt, und die Grenzen des unbewussten Selbst kennen wir nicht ... Berechnungen ... müssen nach der Phase der Inspiration in einer Phase bewusster Arbeit erfolgen, die die die Ergebnisse der Inspiration bestätigt und daraus Konsequenzen ableutet. Die Regeln für diese Berechnungen sind streng und kompliziert. Sie erfordern Disziplin, Aufmerksamkeit Willen und darum Bewusstheit, Im Gegensatz dazu herrscht im unbewussten Selbst etwas, das ich Freiheit nennen möchte , wenn wir damit einfach die Abwesenheit von Disziplin bezeichnen dürfen ... die besonderen unbewussten Phänomene, die die bevorzugt ins Bewusstsein gelangen, sind jene, die mittelbar oder unmittelbar am stärksten unsere emotionale Sensibilität beeinflussen. ... Die Rolle, die diese unbewusste Arbeit bei mathematischen Erfindungen spielt, spielt, ist für mich unbestritten, und ihre Spuren lassen sich auch an anderer Stelle auffinden, wo sie weniger deutlich zutage tritt."

Weizenbaum Seite 287

Es hat eine Zeit gegeben, zu der die Physiker davon träumten, die Gesamtheit der physikalischen Eealität mit einem einzigen umfassenden Formalismus erklären zu können. Leibnitz hat hat gelehrt, wenn wir den Ort und die Geschwindigkeit eines jeden Elementarteilchens innerhalb des Universums kennen würden, dann könnten wir den künftigen Lauf des des Universums vollständig vorhersagen. Aber später hat Werner Heisenberg bewiesen, das genau die Instrumente, die der Mensch benötigt, um physikalische Beobachtungen zu machen, diese Erscheinungen beeeinflussen und das es deshalb prinzipiell unmöglich ist, die exakte Position und die Geschwindigkeit selbst eines einzigen Elementarteilchens zu kennen. Damit hat er zwar nicht die Leibnitzsche Hypothese falsifiziert, aber er hat gezeigt, dass deren Hauptprämisse nicht realisiert werden kann. Das genügte natürlich, um den Traum von Leibnitz zu zerstören. Nur wenig später zeigte Kurt Gödel, auf welch unsicherem Boden sich selbst die Mathematik samt der Logik bewegte, indem er bewies, dass jedes Formalsystem von Bedeutung einige Aussagen enthält, deren Wahrheit oder Falschheit mit den formalen Mitteln des Systems allein nicht entschieden werden kann, mit anderen Worten dass die Mathematik notwendig unvollständig bleiben muss.

Weizenbaum Seite 292

[ ... ] Beispiel der neu gewonnenen Bescheidenheit der modernen Mathematik und Physik folgen: sie sollten erkennen, dass zwar die Beschränkungen und Grenzen der Logik über die Dinge der Welt keine Gewalt haben, aber sie beschränken und begrenzen das, was als vertretbare Beschreibung und Interpretation der Dinge zu gelten hat. Müssten sie das einsehen, dann könnten sie auch den nächsten befreienden Schritt tun und erkennen, dass Wahrheit und formale Beweisbarkeit nicht dasselbe sind.

Weizenbaum Seite 293

[Aber die meisten gegenwärtig verfügbaren Programme, vor allem die umfangreichsten und wichtigsten unter ihnen, sind in diesem Sinne nicht theoretisch fundiert. ... ] Diese gigantischen Computersysteme sind in der Regel von Programmierteams zusammengestoppelt worden (man kann wohl kaum sagen; konstruiert), deren Arbeit sich oft über einen Zeitraum von mehreren Jahren erstreckt. Wenn das System dann endlich gebrauchsfähig ist, haben die meisten der ursprünglichen Programmierer gekündigt oder ihr Interesse anderen Projekten zugewandt, so dass, wenn diese gigantischen Systeme benutzt werden, ihr innerer Ablauf von einem einzelnen oder einem kleinen Team nicht mehr verstanden werden kann.

Weizenbaum Seite 306

Es gibt wenige "wissenschaftliche" Theorien, die das Denken von Wissenschaftlern und Laien stärker in Verwirrung gestürzt haben als die des *Intelligenzquotienten" oder des "IQ". Die Vorstellung, intelligenz könne entlang einer simplen Linearskala quantitativ erfasst werden, hat unserer Gesellschaft vor allem auf dem Gebiet des Erziehungswesens unsäglichen Schmerz zugefügt.

Weizenbaum Seite 269

Das Problem mit den Intelligenztests besteht nicht darin, dass diese falsch, sondern dass sie unvollständig sind. Sie messen bestimmte intellektuelle Fähigkeiten, die von grossen und politisch massgebglichen Teilen westeuropäischer Gesellschaften zur eigentlichen Substanz menschlichen Werts und damit zur conditio sine qua non des Erfolgs erhoben wurden. Sie sind in zweierlei Weise unvollständig: erstens berücksichtigen sie nicht, dass menschliche Kreativität nicht nur von der Intelligenz, sondern entscheidend von einem auch von einem Wechselspiel zwischen der Intelligenz und anderen Modalitäten des Denkens abhängt,etwa der Intelligenz und der Klugheit; und zweitens definieren sie Intelligenz als linear messbare Erscheinung, die unabhängig von jeglichem Bezugssystem existiert.

Weizenbaum Seite 270

Seit Einstein wissen wir, dass die Vorstellung einer Bewegung an und für sich sinnlos ist, dass wir sinnvoll nur von der Bewegung eines Körpers relativ zu einem Bezugssystem sprechen können, nicht jedoch von der absoluten Bewegung eines Körpers.

Weizenbaum Seite 270f

Ge nau so verhält es sich mit der Intelligenz. Für sich allein genommen ist Intelligenz ein sinnloser Begriff.Er erfordert einen Bezugsrahmen, die Definition eines Bereichs im Denken und Handeln, um ihm einen Sinn zu geben. Der Grund dafür, dass uns diese Notwendigkeit nicht kümmert, wenn wir uns im normalen Gespräch  über Intelligenz unterhalten, ist darin zu suchen, dass der erforderliche Bezugsrahmen - d.h. user eigenes kulturelles und soziales System mit seinen charakterlichen Bereichen des Denkens und Handelns - so tief in uns verankert ist, dass wir es als selbstverständlich voraussetzen. Aber in Wirklichkeit sind weder unsere Kultur noch unsere gesellschaftliche Umwelt universal oder absolut. Deshalb wäre es angebracht, wenn wir als Wissenschaftler oder Erzieher den Begriff "Intelligenz" verwenden, stets den Bereich des Denkens und Handelns explizit angeben, aus dem der Begriff seine Bedeutung gewinnt.

Weizenbaum Seite 271

Unser eigenes Alltagsleben verdeutlicht mehr als genug, dass sich Intelligenz lediglich relativ zu bestimmten sozialen und kulturellen Zusammenhängen manifestiert. Selbst eine Mutter mit minimaler Schulbildung, die keinen grammatisch korrekten Satz in ihrer Muttersprache zusmmenbringt - dies gelingt oft nicht einmal Akademikern,  wenn sie sich akademisch ausdrücken wollen -, gibt konstant differenzierte und intelligente Urteile über ihre Familie ab.

Weizenbaum Seite 271f

Computer weisen erstaunliche intellektuelle "Fähigeiten" auf, wenn sie etwa einen erstklassigen Schachspieler in dessen ureigenster Domaine schlagen oder riesige Gleichungssysteme lösen können, können jedoch nicht einmal einem Baby die Windeln wechseln

Weizenbaum Seite 272

Ihre Programme beruhen auf mathematischen Regeltheorien und bewährten physikalischen Theorien. Solche theoretisch fundierten Programme haben den unschätzbaren Vorteil, dass beim Auftreten irgendwelcher Fehler das menschliche Bedienungspersonal feststellen kann, dass ihr Verhalten nicht den Forderungen der Thorie genügt. Damit ist es imstande, aus der Theorie die Fehlerquelle abzuleiten.

Aber die meisten gegenwärtig verfügbaren Programme , vor allem die umfangreichsten und wichtigsten unter ihnen, sind in diesem Sinne nicht theoretisch fundiert.

(Hervorhebung des Autors)

Weizenbaum Seite 307

Dass unsere Gesellschaft sich zunehmend auf Computersysteme verlässt, die ursprünglich Menschen beim Erstellen von Analysen und Treffen von Entscheidungen "helfen" sollten, die jedoch seit langem das Verständnis derjenigen übersteigen, die mit ihnen arbeiten und ihnen dabei immer unentbehrlicher werden, das ist eine sehr ernste Entwicklung. Sie hat zwei wichtige Konsequenzen. Erstens werden mit zum Teil ausschließlicher Unterstützung durch Computer Entscheidungen getroffen, deren Programme kein Mensch mehr explizit kennt oder versteht. Somit ist es ausgeschlossen, dass jemand die Regeln oder Kriterien kennt die durch diese Computersysteme verkörpert sind, gegenüber einer Änderung immun, da angesichts des Fehlens eines eingehenden Verständnisses der inneren Abläufe eines Computersystems jede Modifikation aller Wahrscheinlichkeit nach das ganze System lahmlegt, ohne dass eine Reparatur möglich ist. Aus diesem Grund können solche Computersysteme nur noch wachsen. Und ihr Wachstum samt der damit verbundene gesteigerten Abhängigkeit wird begleitet von einer zunehmenden Legitimation ihrer "Wissensgrundlage".

Weizenbaum Seite 311

Die riesigen Compuersysteme im Pentagon und ihe Gegenstücke anderswo in unserer Zivilisation haben in einem höchst realen Sinne keine Autoren. Somit lassen sie keine Fragen über "richtig" und "falsch" zu, über Gerechtigkeit oder irgendeine Theorie, auf der sich Zustimmung oder Widerspruch aufbauen liesse. Sie liefern keine Grundlage, von der aus das, "was die Maschine sagt", angezweifelt werden könnte. Mein Vater berief sich stets auf eine letzte Autorität mit der Bemerkung "Es steht gedruckt". Aber da konnte ich lesen, was geschrieben stand, etwa von einem Autor, konnte dessen Wertvorstellungen nachvollziehen und ihm schliesslich zustimmen oder auch nicht. Computersysteme regen nicht zu Nachdenken an, das zu einer wirklich menschlichen Beurteilung führen könnte.

Weizenbaum Seite 315

Die verschiedenen von uns behandelten Systeme und Programme haben einige sehr bedeutsame Kennzeichen gemeinsam: sie sind alle in gewissen Sinne einfach, sie entstellen und missbrauchen die Sprache, und sie behaupten alle, nichts Normatives zu enthalten, befürworten indessen einen Autoritarismus gegenüber dem Expertentum. Ihre Parteiname wird natürlich kaschiert durch die Verwendung einer scheinbar neutralen, mit Fachausdrücken gespickten Sprache (d,h, einer Sprache, die ein normaler Mensch als "Bockmist" bezeichnen würde). Diese gemeinsamen Eigenschaften lassen sich bis zu einem gewissen Gead voneinander trennen, aber sie sind voneinander nicht unabhängig.

Weizenbaum Seite 324

In der Rhetorik der technischen Elite ist die korrumpierende Sprache fest verankert.

Weizenbaum Seite 328

Die instrumentelle Vernunft hat aus Worten einen Fetisch gemacht, der von schwarzer Magie umgeben ist. Und nur die Magier haben die Rechte der Eingeweihten. Nur sie können sagen, was die Worte bedeuten. Und die spielen mit Worten und betrügen uns. Wenn Skinner die Naturwissenschaften dem "common sense" gegenüberstellt und behauptet, die erstere sei diesem weit überlegen, dann meint er seine "Verhaltenswissenschaft", und das Wort "common" in "common sense" hat bei ihm eine abwertende Bedeutung. Er meint keinen "common sense", dem eine gemeinsame kulturelle Perspektive einigt, noch einen, der ohne "vernünftigen" Grund bei dem Gedanken erschrickt, Freiheit und Würde seien absurde und überholte Begriffe. Der Technologe behauptet immer wieder, Ansichten wie die hier vorgetragenen seien anti-technisch, anti-wissenschaftlich und schließlich anti-intellektuell. Er wird versuchen, alle Argumente gegen seine größenwahnsinnigen Visionen als Argumente für die Abkehr von Vernunft, Rationalität Naturwissenschaft und Technik auszugeben, als Plädoyer für pure Intuition, Gefühl, drogen-induziertes Bewusstsein usw. In Wirklichkeit spreche ich für eine Rationalität. Aber ich behaupte, dass man Rationalität nicht von Intuition trennen kann. Ich plädiere für den rationalen Einsatz von Naturwissenschaft und Technik, nicht für deren Mystifikation und erst recht nicht für deren Aufgabe. Ich fordere die Einführung eine ethischen Denkens in die naturwissenschaftliche Planung. Ich bekämpfe den Imperialismus der instrumentellen Vernunft, nicht die Vernunft an sich.

Weizenbaum Seite 334

Ein Individuum wird überall enthumanisiert, wo es nicht als ganze Person behandelt wird.

Weizenbaum Seite 347

Wenn er sich sich für eine Beschränkung aus der Überlegung heraus ausspricht, dass eine ungehemmte Forschung irreservible Komsequenzen haben könnte, dann bedient er sich ebenfalls der instrumentellen Vernunft und trägt dazu bei, deren Missbrauch (etwa im Gewand einer Kosten-Nutzen-Analyse) zu legitimieren, gegen die er eigentlich ankämpfen möchte.

Was für viele Dilemmata zutrifft, trifft auch hier zu: die Lösung liegt im Verwerfen der Spielregel, die es hervorgebracht haben. Für das vorliegende Dilemmalautet die entsprechende Regel, dass die Rettung der Welt -und darüber rede ich hier - davon abhängt, andere zu den richtigen Ideen zu bekehren. Diese Regel ist falsch. Die Rettung der Welt hängt nur von dem Individuum ab, dessen Welt sie ist. Zumindestens muss jedes Individuum so handeln, als ob die gesamte Zukunft der Welt, der Menschheit selbst, von ihm abhinge. Alles andere ist ein Ausweichen vor der Verantwortung und selbst wieder eine enthumanisierende Kraft, den alles andere bestärkt den einzelnen nur in der Vorstellung, lediglich eine Figur in einem Drama zu sein, das anonyme Mächte geschrieben haben und sich als weniger als eine ganze Person anzusehen, und das ist der Anfang von Passivität und Ziellosigkeit.

Weizenbaum Seite 348,
auch wörtlich zitiert in Weizenbaum Kurs auf den Eisberg
- Die Rolle des Einzelnen und die Dikttur der Technik Seite 53ff

Was für viele Dilemmata zutrifft, trifft auch hier zu: die Lösung liegt im Verwerfen der Spielregel, die es hervorgebracht haben.

Weizenbaum Seite 348

Der Umfang der möglichen Antworten, die man erhält, wird durch die Art der Fragen festgelegt.

Weizenbaum Seite 359

Es kann nicht die Aufgabe einer Universität sein, künftigen Studenten einfach einen Katalog von "Fertigkeiten" anzubieten, aus dem sie sich etwas aussuchen. Denn wen das ihre Aufgabe wäre, dann müsste sie von der Annahme ausgehen, dass die Studenten, von denen sie besucht wird, bereits das sind, was sie erst werden sollen.Dann würde die Universität den Studenten völlig orrekt als eine Art Einkaufskorb ansehen, in den die Waren desintellektuellen Warenlagers der Universität gepackt werden sollen. Mit anderen Worten, sie würde den Studenten völlig richtig al ein dem Computer ähnliches Objekt ansehen, dessen Speichereinheitennach immer neuen "Daten" hungern. Aber zweifellos kann das keine befriedigende Charakteristik dessen sein, um was es in der Universität geht oder gehen sollte. Sicherlich sollte die Universität alle mit ihr in Kontat Stehenden, Dozenten wie Studenten, in erster Linie als menschliche Wesen ansehen, die - anders kann man es nicht nennen - nach Wahrheit suchen, d.h. nach sich selbst. Eine Sache müsste allen Beteiligten stets aufs Neue widerfahren: dass sie den Hörsal mit anderen Bewusstsein verlassen, als sie es bei dessen Betreten mitbrachten. Das blosse Lehren einer Fähigkeit kann diese wichtige Funktion allein nicht erfüllen.

Weizenbaum Seite 363f

Ich habe hier davon gesprochen, was getan werden sollte und was nicht, was moralisch verwerflich ist und was geföhrlich ist. Ich bin mir natürlich der Tatsache bewisst, dass diese meine Urteile an sich keine moralische Kraft haben, ausgenommen gegenüber mir selbst. Wie schon gesagt, trage ich mich auch nicht mit dem Gedanken, anderen Leuten zu sagen, welche Aufgaben sie übernehmen sollten und welche nicht.  Ich fordere sie lediglich auf, sich die Konsequenzen von dem auszumalen, was sie tun. Und damit mrinr ich nicht nur, nicht einmal primär, die unmittelbaren Konsequenzen für die Welt um sie herum. Ich meine eher die Konsequenzen für sie selbst, wenn sie Rationalisierungen aufbauen, die Wahrheit unterdrücken, die sie zu einer Richtungsänderung veranlassen würden, und wenn sie sich ihrer eigenen Autonomie begeben. Dass so viele Menschen so oft fragen, was sie tun müssen, ist ein Zeichen dafür, dass die Reihenfolge des Seins und des Tuns sich umgekehrt hat. Wer weiss, wer er ist und was er ist, der braucht nicht zu fragen, was er tun sollte.Und wer danach fragen muss, wird so lange weiter fragen müssen, bis er anfängt, nach innen zu schauen. Aber jeder hat die Aufgabe, mit seinem Beispiel zu zeigen, welche Fragen man sich selbst stellen kann, und zu zeigen, dass man mit den wenigen Antworten leben kann, die es gibt.

Weizenbaum Seite 356

Wer ein besonders aggresives Werbeprogramm im Fernsehen sieht, dem fällt es schwer, sich vorzustellnn, das irgend wann einmal erwachsene Menschen zusammen gesessen sind und beschlossen haben, genau diese kommerzielle Sendung zu machenund sie hunderte von Malen zu senden. Aber so ist es und nicht anders. Diese Dinge sind nicht von anonymen Kräften hervorgebracht worden. Es sind die Produkte von Gruppen von Menschen, die sich untereinander einig waren, dass diese Vergiftung des Bewussstseins der Menschen ihren eigenen Absichten dient.

Weizenbaum Seite 357

-->